【CISS研究报告】北约推进人工智能战略：挑战与任务
朱荣生
清华大学战略与安全研究中心助理研究员
杨滨伊
香港中文大学深圳全球研究硕士生
人工智能军事化已经成为国际军备发展重要潮流和国际安全研究热点，但是对于它在哪些方面给联盟协调带来何种挑战，以及如何提高联盟管理效率，对于这些问题，目前依然处在政策探索阶段。2021年10月21日，北约国防部长峰会通过了第一个人工智能战略。结合北约密集出台的研究报告和政策部署，我们对北约人工智能军事应用的回顾和分析或可为回答上述问题提供一些启示。
一、北约同盟管理中的人工智能军事化挑战
随着人工智能发展新浪潮的到来，世界主要国家纷纷将人工智能提升到国家大战略层面，展示出不甘落后的决心。2015年12月16日，普京总统签署“成立国家机器人发展中心”总统令，将发展军用、特种和军民两用机器人系统作为科学技术的优先发展方向。2019年10月11日，普京批准《2030年前俄罗斯国家人工智能发展战略》，首次将推进人工智能发展提升至国家战略层面，并认为俄罗斯有望成为全球人工智能开发与应用领导者。[1]2017年7月8日，中国国务院发布的《新一代人工智能发展规划》详细提出“三步走”人工智能发展战略。[2]2019年2月11日，特朗普总统秉持“美国优先”的政策逻辑，签署《维护美国在人工智能时代的领导地位》行政命令。他表示保持人工智能技术全球领先对美国国家安全和经济繁荣至关重要。[3]
相比于各大国的率先发力布局，北约作为同盟组织，其发展人工智能的战略规划明显滞后。2019年10月13日，北约科学与趋势安全委员会发布政策发布报告评估道，北约必须在战略层面协调盟国以应对数字地缘政治挑战，尤其是中国和俄罗斯加大对军用人工智能系统研发所带来的安全风险。[4]2020年9月28日，北约副秘书长米尔卡·吉奥纳(Mircea Geoană)在人工智能网上论坛发表演讲指出，创新能力保证了北约的军事优势和科技领先地位，以及应对新型威胁的能力。[5]2020年12月1日，《北约2030声明》强调，中国和俄罗斯正在对人工智能进行大量投资，唯有加强联盟内推动军用人工智能的凝聚力才能在大国竞争时代维持北约的技术领导地位。[6]而北约直到2021年10月才发布首份人工智能战略，这不免令其在这场强调“先发优势”的角逐中处于后发位置。
互操作性困难和实力不均衡将降低联盟军事协调能力。在军事决策层面，同盟成员国的能力差距会直接影响责任分担。例如，在1999年北约空袭科索沃的冲突中，只有少数成员国拥有精确制导武器，其他成员国无法有效分担空袭的进攻责任。[7]相似的情况有可能出现在联盟使用人工智能的行动中。另外，发达成员国之间对军用人工智能技术的态度不尽相同。美国和英国对尽早达成禁止致命性自主武器的国际公约态度消极，而德国则对防止出现完全自主的致命性自主武器表现出较高热情。“人权观察”(Human Rights Watch)曾对十一个北约国家的民众关于致命性自主武器的态度进行问卷调查，发现反对致命性自主武器的民意差距较大，土耳其(73%)和德国(66.8%)的反对呼声最大，而英国(56.3%)和法国(47.3%)的反对率最低。[8]而公众对技术的态度会在一定程度上左右决策者是否推进军用人工智能发展。
敏感数据分享不充分构成挑战。军事联盟的集体行动能力在一定程度上取决于有效共享情报，这要求军事成员国之间有较高程度的互信。军用人工智能的开发模型和作战执行都需要大量数据，而有着“亲疏之分”的北约成员是否有足够的意愿去建立共享敏感数据的正式协定是一道谜题。2020年6月10日，法国“库尔贝”号护卫舰在利比亚海岸准备检查一艘悬挂坦桑尼亚国旗的货轮，并且声称这是参与北约“海上卫士”联合监视行动的一部分。但是为该货轮护航的土耳其“奥鲁奇雷斯”号护卫舰拒不配合，甚至3次用武器系统锁定“库尔贝”号护卫舰。法国为了表示抗议随即宣布退出“海上卫士”联合监视行动。这一案例揭示了北约成员在情报侦查协作活动中的脆弱性。从技术层面来看，就算联盟内达成了共享情报的制度协定，他们还要解决敏感数据格式和标准的统一问题。因为各国在数据搜集设备或者软件上选择了不同的采购商，并且在研发过程中遵循各自的数据标准。
资金欠缺和分配分歧阻碍技术创新。美国战略与国际研究中心(CSIS)欧亚项目研究员皮埃尔·莫科斯(Pierre Morcos)认为，虽然北约主要成员国(法国、英国、德国、意大利、丹麦、波兰)自2014年以来加大了军事开支，但在新冠疫情冲击全球经济的情况下，这一持续上升的趋势恐怕难以为继，北约未来会面临严重的资金短缺问题。[9] 2021年6月11日，北约公共外交处(NATO Public Diplomacy Division)发布的防务开支报告显示，只有10个国家将2021年的国防预算提高到GDP占比的2%，而北约核心成员国德国的国防预算开支只占GDP的1.53%。[10]柏林赫尔蒂政府治理学院(Hertie School of Governance)研究员妮可·柯尼格(Nicole Koenig)预测，德国为了应对新冠疫情裹挟而来的经济与医疗危机将继续减少对北约的军费认缴。[11]在2021年的北约峰会召开前夕，北约内部关于共同防务支出分配(Common Funding)争论不小。北约秘书长斯托尔滕贝格提出，北约盟国应该将更多的钱直接投入到既有的小金额共同防务项目里面，这将更有效地提高集体防务能力。法国国防部长弗洛朗斯·帕尔丽(Florence Parly)则公开反对这一提法，质疑这些钱最终是否会被用于提升联盟的威慑能力上。[12]
二、北约人工智能战略的主要目标和任务
《北约人工智能战略》将人工智能技术定位为改变全球防务和保持北约军事优势的重要技术。战略规划的核心主旨是如何将人工智能以符合伦理道德的方式应用于北约防务，以更好地使人工智能技术支撑联盟集体防御、危机管理和合作安全这三项北约核心任务。该战略提出四个战略目标：为盟国后续的人工智能行动提供重要基础，鼓励以负责任的方式开发和使用人工智能，维护盟国的防务安全；加强人工智能的能力开发和交付进程，加强联盟内部的互操作性；保护并监测人工智能技术与创新能力，解决安全政策顾虑因素；确定并防范国家和非国家行为者恶意使用人工智能的威胁。
结合北约研究机构、重要人物言论以及相关政策和行动综合分析，北约人工智能战略的着力点主要集中在以下四个方面：
第一，加强联合投资和应用以维持军事优势。2021年10月20日，北约秘书长斯托尔滕贝格提出北约在研发投资上不能落后于人，并且宣布将创立基金会投资10亿美元发展人工智能技术，预计将在未来15年内每年投资6000万英镑帮助技术型初创企业的成长。[13]为了推动跨大西洋的关键技术合作，北约人工智能战略抛出北大西洋防务创新加速器计划 (Defence Innovation Accelerator of the NorthAtlantic, DIANA)，决定定期与盟友伙伴举行高层对话，并且让技术公司在战略层面支撑北约发展人工智能的雄心。该计划预计在2023年启动，将在美国和欧洲设立两个总部，推动北约欧洲成员国和美国在技术测试、验证、设计、应用方面的紧密合作。[14]美国国防部在2020年启动了“人工智能国防合作伙伴关系”(AI Partnership for Defense)，以推动包括北约部分成员国(加拿大、法国、挪威、英国、爱沙尼亚)在内的 13 个国家深化人工智能军事应用合作。北约人工智能战略提高伙伴国家军事研发和项目交流的主张和三轮“人工智能国防合作伙伴关系”对话会的基调总体一致。
第二，建构负责任人工智能原则弥合价值观分歧。北约提出在人工智能的全生命周期中贯彻合法性、责任和问责、可解释性、可追溯性、可靠性、可治理性、偏差缓解等七项军用人工智能原则。这些原则强调人工智能军事应用需要符合现有交战规则，保证研发、部署和应用不违反成员国的国内法规。北约推出军用人工智能原则可以在一定程度上缓解盟国在集体安全的法律合规和道德伦理方面的分歧。对于确立共有规范的必要性，北约法律事务中心认为，集体法律合规性缺失不仅限制了政府、企业、大学在人工智能投资、创新、应用等方面的合作，还妨碍了集体防御行动的授权。[15]英国国际战略研究所(The International Institute for Strategic Studies, IISS)高级研究员埃里卡·佩佩(Erica Pepe)也给出了相似的判断，并认为搭建统一的法规框架是发挥北约技术优势不可或缺的一环。[16]2021年4月，北约新兴安全挑战部助理秘书长大卫·范·韦尔(David van Weel)在爱沙尼亚国防部组织的一次网络活动中表示：“对于人工智能，我们需要制定一些负责任使用的原则，我们已经在这一方面达成共识。”[17]2019年10月31日，美国国防创新委员会发布的《人工智能伦理若干建议》也对人工智能技术的安全和道德合规性做出规定。美国人工智能国家安全委员会的《最终报告》指出，这些原则不仅可以打破政府和社会各界对军用人工智能的价值观分歧，还可以从道义上压制别国的军事智能化发展。[18]北约军用人工智能原则的确立也潜藏着相似的军备控制逻辑，即帮助同盟搭建共同法律框架和巩固其军事发展上的军备优势。
第三，提高联盟人工智能军事化的互操作性。不均衡的军事实力以及技术架构、标准、安全等方面的差异会降低集体防御的军事决策和行动的效率。根据Oxford Insights发布的政府人工智能发展水平指数显示，北约成员国之间的技术实力和技术开发能力差距较大。美国、英国、德国分别位于榜单第一、第二与第四名，而斯洛文尼亚、匈牙利等国则排到了五十名之外。[19]麻省理工学院助理教授埃里克·林·格林伯格(Erik Lin-Greenberg)指出，技术实力差距会放大军队的责任分担困难和安全脆弱性，导致联盟军事行动效率降低。[20]为了解决实力差异带来的互操作难题，北约人工智能战略强调要贯彻负责任使用人工智能原则，加速推进人工智能的产品交付，开展共同开发的新架构和新计划。该战略指出北约认识到民间私营部门和学术界在人工智能发展中的主导作用，将组建一支基于政策方向并拥有技术能力的人工智能人才队伍，建立强大且安全的数据基础设施，以及提升网络防御能力。而北约在做出这一战略规划之前，就已经对相关问题进行研究和军事协调。例如，北约科学和技术组织将人工智能和大数据用于辅助决策作为核心科技主题，就探讨“人机交互”问题举办了系列研讨会；北约工业咨询小组于2018年抛出一套信息环境评估模型(Information Environment Assessment)，研究如何利用人工智能对大数据进行处理、分类，根据数据接受者的需求进行信息推送，解决国家人工智能实力差异化降低军事决策效率的问题；2018年10月到11月，北约在挪威举行冷战后规模最大的“三叉戟”联合军演尝试将北约陆海空以及网络空间整合入联合作战以提升集体防御能力；[21]2019年12月2日至6日，北约“网络联盟”(Cyber Coalition)在爱沙尼亚的国防军事学院进行多国部队模拟应对网络攻击的场景演练。[22]
第四，防范人工智能滥用破坏同盟互信和政治稳定。北约人工智能战略指出，国家和非国家行为体可能会利用北约人工智能技术中的漏洞或限制，攻击关键基础设施，发动网络进攻，传播虚假信息，导致北约成员国的信息安全、价值理念、政治互信遭受破坏。前北约秘书长安诺斯·福格·拉斯穆森(Anders Fogh Rasmussen)担忧地表示，深度伪造技术制造的虚假信息会在网络上大肆传播，干扰民主国家大选和联盟互信。[23]2018年11月，北约通信和信息机构邀请来自英国、丹麦、乌克兰、波兰、黑山、挪威、土耳其和德国等14支国家代表队参与名为“黑客向善”(Hackathon for Good)的比赛，创建稳定可靠的人工智能技术，服务情报搜集和对抗网络攻击活动。这场带有军事意涵的比赛间接反映出北约试图解决人工智能被用于信息战、网络战、舆论战等威胁政治稳定和军事安全的问题。针对人工智能滥用可能冲击联盟稳定性，北约人工智能战略提出将进一步与相关的国际人工智能标准制定机构合作，帮助促进军民标准在人工智能标准方面的一致性。北约将贯彻“负责任的人工智能”概念，完善关键基础设施的稳健性和安全性，防范人工智能驱动的网络攻击，填补军事和民用技术潜在的网络安全漏洞。同时，北约要巩固跨大西洋合作以甄别和防范恶意人工智能攻击。例如，美欧在首次召开的贸易和技术投资委员会联合声明中提出要在人工智能全球治理中嵌入共有的民主和自由价值观，加强跨大西洋在应对虚假信息干扰民主选举方面的合作。
三、北约推进人工智能战略的结构性难题
北约成员国的人工智能发展和军事化政策差异是联盟协调受阻的长期因素。虽然人工智能属于军民两用技术，部分民用技术转化可以为军事创新提供动力，但是军用技术所需的安全稳定性、特殊应用场景，以及高成本抬升了研发和应用门槛。有研究发现技术强国倾向于推进军队智能化，而技术能力较弱的成员国则把国防开支集中在推动常规部队的现代化和更新武器平台上。[24]这意味着协调军事和财政水平不同的北约成员国，实现政策的一致性要面临更大阻碍。关于北约成员国结构性差异对联盟管理人工智能军事化的挑战，政策研究界认为存在三方面短期内难以逾越的障碍。第一是盟国的人工智能技术软件和技术标准不同导致军事同盟不得不努力寻找充足的财政支出进行军备改造和升级，加强不同国家的军事操作系统的协作水平。[25]第二是对安全态势和技术伦理的认知不同导致北约成员国在威慑目标和武力使用规范上难以达成一致。[26]第三是美国全球领导力的下降进一步削弱了北约成员国化解具体安全问题分歧的能力。[27]
颠覆性技术存在的缺陷在诸多应用场景中暴露会削弱联盟对安全承诺的预期。与盟国开展高尖端武器的共同研发或者直接在其境内作出相应部署，是一种提高安全承诺可信度和威慑能力的手段。2020年2月24日，兰德公司对人工智能和自主系统逐渐取代有人武器装备对联盟威慑进行军事推演也得出了相似的结论。研究发现，虽然无人装备减少了盟国在本国的军事人员部署，可能会让本国决策者怀疑盟国有意降低安全成本，但是无人装备的先进性抬高了盟国的承诺信号；而且，无人装备可以在日常“不知疲倦”地执行威慑任务，向竞争对手释放联盟的安全承诺信号和决心。[28]不过，随着人工智能军事应用的缺陷越来越多地暴露出来，人们可能会修正对人工智能“过高期望”的认知。[29]2021年4月，法国在军演中就使用了波士顿动力生产公司研发的“Spot”机器狗对占领十字路口、夜间和白天的防御以及城市战斗行动进行测试，但机器狗电池耗尽无法动弹导致法军士兵不得不扛着它完成剩余演练内容。这一滑稽案例只是人工智能军事现实应用缺陷的冰山一角，决策者恐怕要重新思考它在体现安全承诺和威慑可信度中的地位。
缺乏政治互信的人工智能军事化合作会放大盟友被抛弃的恐惧。不同国家在应对冲突上的能力和立场不同，令联盟成员国在解决危机时会根据各自的军事能力、风险容忍、国家利益采取行动。这会让国家担心在危机到来之时盟友是否会履行安全承诺介入其中。尤其是在人工智能领域，北约同美国实力差距拉大加深了集体防御相互依赖的程度，这不免会放大北约被抛弃的恐惧。比如，前任美国总统特朗普曾公开宣称要减少驻德美军，指责德国购买俄罗斯油气资源并质疑保护部分北约成员国的意义。[30]北约人工智能战略提出要推动价值观念在跨大西洋合作中的作用，定期召开北约和盟国的高层协调会议，并且抛出加强北约和美国共同研发的北大西洋防务创新加速器计划。这些带有制度化合作和意识形态斗争的努力暗示了北约希望巩固美欧政治阵营缓解被抛弃的焦虑。不过，在敏感情报共享、数据标准和体系、道德和法律框架没有得到制度保障的情况下，主要依靠价值观念巩固同盟互信恐怕难以解决军事决策、授权和行动不连贯的难题，无法完全消解北约成员国在危机中被盟友抛弃的恐惧。
文内注释
本文为“人工智能的国际安全挑战及其治理研究”博士后科学基金项目（项目号：2020M680492）的阶段性成果。
[1]Gill Indermit, “WhoeverLeads in Artificial Intelligence in 2030 Will Rule the World Until 2100,” Brookings Institution, 2020,https://www.brookings.edu/blog/future-development/2020/01/17/whoever-leads-in-artificial-intelligence-in-2030-will-rule-the-world-until-2100/.
[2]《新一代人工智能发展规划》，中国国务院，2017年7月20日。
[3] “Maintaining American Leadership in ArtificialIntelligence,” The White House, 2019, https://www.federalregistergov/documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence.
[4]Tonin,Matej, “Artificial intelligence: Implications for NATO’s Armed Forces,” NATOParlimentary Assemby Report, 149, 2019.
[5] “ NATODeputy Secretary-General Mircea Geoană at the CYBERSEC GLOBAL 2020 VirtualConference, NATO,Sept. 2020, https://www.nato.int/cps/en/natohq/opinions_178335.htm.
[6]“NATO2030: United for a New Era. North Atlantic Treaty Organization,” NATO,June 2020, https://www.nato.int/nato2030/.
[7]Larson Eric V., Gustav Lindstrom, etal., “Interoperability of U.S. and NATO Allied Air Forces:Supporting Data and Case Studies,” Rand Corporation, 2004.
[8] “Global Survey Highlights Continued Opposition to FullyAutonomous Weapons,” Human Rights Watch, Feb. 2021,https://www.ipsos.com/en-us/global-survey-highlights-continued-opposition-fully-autonomous-weapons.
[9]Morcos Pierre. “Toward a New “Lost Decade”? Covid-19 and Defense Spending inEurope,” Centerfor Strategic and International Studies, Oct. 2020,https://www.csis.org/analysis/toward-new-lost-decade-covid-19-and-defense-spending-europe.
[10]2014年7月11日，北约成员国在威尔士峰会上同意停止削减并逐步增加防务开支，预计在10年内各国国防预算提高到GDP占比２％的目标。参见："北约强调其成员国将努力实现军费既定指标,” 新华网,July.2014, http://www.xinhuanet.com/2018-07/12/c_1123115586.htm.
[11]Koenig, Nicole, and Yann Wernert. “Can France and Germany Relaunch Europe’sSecurity Agenda,” Jacques Delors Centre Hertie School, April.2021.
[12]“Coronavirus Could Hit Defense Spending and Spark NATO Tensions Once Again,” CNBC,May 2020, https://www.cnbc.com/2020/05/13/what-coronavirus-means-for-nato-and-defense-spending.html.
[13]Emmott Robin, “NATO Agrees Master Plan to Deter Growing Russian Threat,” Reuters,Oct. 2021，https://www.reuters.com/world/europe/nato-agree-master-plan-deter-growing-russian-threat-diplomats-say-2021-10-21/.
[14] “NATOAllies Take the Lead On the Development of NATO’s Innovation Fund,” NATO, Oct.2021, https://www.nato.int/cps/en/natohq/news_187607.htm.
[15]Steven Hill and Nadia Marsan, “Artificial Intelligence and Accountability: AMultinational Legal Perspective,” NATO Office of Legal Affairs, 2016,https://www.sto.nato.int/publications/STO%20Meeting%20Proceedings/STO-MP-IST-160/MP-IST-160-PP-4.pdf.
[16] EricaPepe. “NATO and collective thinking on AI,” International Institute forStrategic Studies, Nov. 2020,https://www.iiss.org/blogs/military-balance/2020/11/nato-artificial-intelligence.
[17]Melissa Heikkila, “NATO Wants to Set AI Standards. IfOnly Its Members Agreed on The Basics,” POLITICO, Mar. 2021, https://www.politico.eu/article/nato-ai-artificial-intelligence-standards-priorities/.
[18]“FinalReport,” National Security Commission onArtificial Intelligence, Mar. 2021,https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf.
[19]“GovernmentAI Readiness Index 2020,” Oxford Insights, Sep.2020,https://www.oxfordinsights.com/government-ai-readiness-index-2020.
[20] Erik Lin-Greenberg，“Allies and Artificial Intelligence: Obstacles to Operations andDecision-Making，” Texas National Security Review, Volume 3, Issue 2, 2020.
[21]Delphine Deschaux Dutard, “Is NATO Ready for CyberWar?” Foundation for Strategic Research, Aug. 2021,https://www.frstrategie.org/en/publications/nato-briefs-series/nato-ready-cyber-war-2021.
[22] “Exercise Cyber Coalition 2019 Concludes in Estonia,”NATO Allied Command Transformation. Dec. 2019, https://www.act.nato.int/articles/exercise-cyber-coalition-2019-concludes-estonia.
[23]“Campaign Influence Ops Will ‘Deepfake’ More Voters with AI, Warn Chertoff andRasmussen,” Homeland Security,Dec.2018,https://www.hstoday.us/subject-matter-areas/infrastructure-security/campaign-influence-ops-will-deepfake-more-voters-with-ai-warn-chertoff-and-rasmussen/.
[24] ErikLin-Greenberg，“Allies and Artificial Intelligence: Obstacles to Operations andDecision-Making,” Texas National Security Review, Volume 3, Issue 2,2020.
[25] JacobParakilas，“Is An “Allianceof Alliances” Around AI Feasible?” The Diplomat, Mar.2021，https://thediplomat.com/2021/03/is-an-alliance-of-alliances-around-ai-feasible/.
[26] TomášValášek，“How ArtificialIntelligence Could Disrupt Alliances，”CarnegieEndowment for International Peace，Aug.2017.
[27]Muhammed Can & Halid Kaplan, “Transatlantic Partnership on ArtificialIntelligence: Realities, Perceptions and Future Implications,” GlobalAffairs,Vol. 6, Issue 4-5, 2020.
[28] JohnYurchak, Robert Button, et al., “Deterrence in the Age of Thinking Machines,” Rand Corporation,2020.
[29]高德纳公司用“技术成熟度曲线”描述创新性技术的发展过程：技术萌芽期（TechnologyTrigger）、期望膨胀期（Peakof Inflated Expectations）、泡沫破裂低谷期（Troughof Disillusionment）、稳步爬升恢复期（Slopeof Enlightenment and Climbing the Slope）以及进入高速发展阶段而形成实质生产的生产成熟期（Enteringthe Plateau of Productivity），高德纳公司认为人工智能技术目前正处在“期望膨胀期”阶段。参见：”Two Trends OnThe Gartner Hype Cycle For Artificial Intelligence, 2020,” Gartner,Sept.2020,https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020.
[30]“Trump Questions Value of NATO, Slams Germany,” Associated Press News,July 2018,https://apnews.com/article/moscow-music-north-america-donald-trump-ap-top-news-5d9af207650e42cd9fbf96ce7d8c59d1.